The Physics of Multi-Turn Long-Horizon Planning: From Pre-training to Post-training via Single- and Multi-Teacher On-Policy Agentic Distillation
多轮长程规划的物理学：预训练与后训练阶段的智能体蒸馏研究
🧭 Agent 多轮长程规划能力分析
中国科学院自动化研究所复杂系统认知与决策智能重点实验室 · 中国科学院大学人工智能学院
构建可控环境系统分析LLM智能体多轮长程规划的获取、塑造与集成机制
📌 工作参考价值（4 点）
- 预训练数据构造：构建多轮交互推荐/搜索Agent时，预训练阶段加入显式世界模型（如状态转移链式推理）数据，并混合少量长程轨迹，仅靠原子技能无法组合泛化。
- 后训练算法选择：若预训练数据质量不高或任务轮次长，优先使用在线策略蒸馏（OPD）而非GRPO，OPD更新方向更一致，有效区域更广。
- 错误累积控制：长程任务中次优轨迹的误差放大效应显著，在推荐Agent流程中可植入早期信号校验或中断机制，防止错误级联。
- 多教师知识集成：引入不同领域知识时，避免直接蒸馏冲突的规划模式，可通过寻找共享模式实现跨环境泛化，部分共享模式支持持续学习。